Causal Memory Policy: Making Memory Utility Identifiable by Intervening on Retrieval
因果记忆策略:通过干预检索使记忆效用可识别
🧭 Agent 记忆管理 · 因果识别 ★ 深度解读
Illinois Institute of Technology
提出 CMP,用随机化检索暴露恢复记忆效用的可识别性,解决确定性检索下的 positivity violation
📌 工作参考价值(4 点)
- 在 RAG / 生成式推荐或用户画像记忆系统中,离线估计某个 item 或 memory 的增量价值时,必须警惕召回/检索阶段的 positivity 问题:未被召回的 item 其效用不可识别,导致基于效用的 eviction 或降权策略退化为随机。可借鉴 CMP:保留固定比例曝光槽位,对候选 item/memory 以已知 propensity 随机采样,强制产生 support。
- 采用平衡分配(balanced assignment)替代独立随机:固定每个 item 的曝光次数,propensity 精确已知,方差可解析计算;估计器用 self-normalized IPW(等价于 arm 均值差),便于工程实现。
- 对不可逆操作(如删除记忆、商品永久下架、从长期候选池剔除)采用单边弃权(one-sided abstention):Bayes 最优规则要求只有当估计效用显著低于负阈值时才执行不可逆操作,避免误删高价值 item。
- 识别出 utility 不等于能做出 retention 决策:per-query utility 在特定 query 上 AUC 很高,但跨 query 聚合困难,无法用单个标量代表长期价值。这提示在推荐/搜索中,item 价值随上下文变化,需要 query-conditioned 模型而非全局打分,且保留/淘汰决策需考虑未来查询分布的不确定性。